1. 投影與距離
點 $x_0$ 到集合 $C$ 的距離定義為集合內所有可能距離的下確界：
$\text{dist}(x_0, C) = \inf\{\|x_0 - x\| \mid x \in C\}$
達到此距離的特定最佳化器稱為投影算子：
$P_C(x_0) = \text{argmin}\{\|x - x_0\| \mid x \in C\}$
對於由 $a^T x = b$ 定義的簡單超平面，投影具有優美的閉式解：$P_C(x_0) = x_0 + (b - a^T x_0)a/\|a\|_2^2$。然而，對於一般集合，這仍是一個帶有約束的最佳化問題： 最小化 $\|x - x_0\|$，約束條件為 $f_i(x) \leq 0$ 與 $Ax = b$。
2. 函數幾何
為了將幾何約束視為目標的一部分，我們使用兩種強大的函數『鏡像』：
- 指標函數 $I_C(x)$: $I_C(x) = \begin{cases} 0 & x \in C \\ +\infty & x \notin C \end{cases}$。這將幾何結構轉化為數值懲罰。
- 支撐函數 $S_C(x)$: $S_C(x) = \sup_{y \in C} x^T y$。它通過每個方向上的邊界超平面來描述該集合。
一個非空且封閉的集合 $C \in \mathbf{R}^n$ 是一個 切比雪夫集 （對每一個 $x_0$ 都擁有唯一投影）當且僅當它是 凸的。
假設 $C$ 是凸的，且範數是嚴格凸的。若存在兩個不同的最接近點 $u, v \in C$，使得 $\|u - x_0\| = \|v - x_0\| = d$，則其中點 $w = (u+v)/2$ 屬於 $C$（由凸性）。
根據範數的嚴格凸性：$\|w - x_0\| = \|\frac{1}{2}(u - x_0) + \frac{1}{2}(v - x_0)\| < \frac{1}{2}\|u - x_0\| + \frac{1}{2}\|v - x_0\| = d$。
這與 $d$ 是最小距離的假設矛盾。因此，投影必須是唯一的。
注意事項 8.4：範數依賴性
我們經常使用以下方式構造分離超平面：$(P_C(x_0) - x_0)^T (x - (1/2)(x_0 + P_C(x_0))) = 0$。請注意！這種特定構造僅適用於 歐幾里得範數。一般範數需要更精細地處理正交性問題。